國外一名女子使用ChatGPT時突收陌生訊息,追問下揭AI「混淆用戶資料」憂私隱洩漏。 @wishmeluckliz Has this ever happened to anybody else?? #chatgpt #ai #crossedwires ♬ original sound – wishmeluckliz 女子用ChatGPT突收不相關回覆 綜合外媒報導,國外一名女子莉茲(Liz)近期在TikTok上發佈影片分享,使用ChatGPT時收到不相關回覆內容的經歷。她表示,當時正透過ChatGPT的語音模式列出購物清單,雖然結束後忘記關閉語音模式,但她之後再未作出指令。 豈料,ChatGPT過了一段時間後突然回覆一則內容與她毫不相關的訊息,「哈囉,琳賽和羅伯特,你們似乎在替一場演講或研討會做開場。內容方面有什麼特別需要協助的嗎?也許幫助你組織講稿或投影片?請告訴我,我可以如何提供協助」。 檢查逐字稿後疑似帳戶錯亂 莉茲對此感到十分困惑,檢查語音模式下的轉錄逐字稿後發現上述詭異訊息的確被系統記錄,甚至還出現一則她從未說過的回覆。為了查明真相,莉茲透過語音詢問ChatGPT,「我只是隨便坐在這裡,規畫要買什麼生活用品,你卻詢問琳賽和羅伯特的研討會是否需要協助。我不是琳賽和羅伯特,現在我是不是跟另一個人的帳戶搞混了?」。 AI承認混淆對話 女子憂私隱洩漏 AI對此坦承混淆了不同用戶的資料,「我似乎錯誤混淆了不同對話或帳戶的上下文,你不是琳賽和羅伯特,這則訊息應該是要傳給別人的,謝謝你指出這一點,我很抱歉造成困惑。」莉茲對於ChatGPT直接承認洩漏用戶隱私資料感到震驚,亦擔心自己的個人資料安全。她期望只是自己過度敏感,也希望網民能夠就事件給予合理解釋。 網民憂資料安全 專家作出解釋 部分網民同樣憂慮資料外洩的風險,有人表示亦曾遇到語音模式異常情況,「當我使用語音模式,但什麼也沒說時,它為什麼一直轉錄逐字稿『感謝收看』?」有AI專家及程式設計師解釋,ChatGPT或因「產生幻覺」導致異常回應,指語音模式在無人說話時會嘗試從音訊中提取語言,進而產生錯誤輸出。至於ChatGPT同意「帳戶錯頻」的說法,則可能是AI在嘗試配合用戶提問作出解釋。目前,OpenAI未就事件作出回應。
